"Hai commesso un errore, ChatGPT?" La domanda innocente che può cambiare tutto

Forse l'hai già fatto. Stai usando ChatGPT o un altro chatbot basato sull'intelligenza artificiale e ti rendi conto che ha commesso un errore. Glielo dici, sperando che ne tenga conto... e lui ti dice che lo farà. Ma, in fondo, non è successo nulla. Se fosse successo, potremmo parlare di un vero e proprio cambiamento di paradigma nell'uguaglianza tra l'autoconsapevolezza umana e quella delle macchine. Qualcosa che, nel bene e nel male, non è ancora accaduto.

Perché ci aspettiamo che una macchina spieghi i propri errori come farebbe una persona? Cosa ci fa pensare che, dietro una frase scritta da un assistente AI, ci sia un'intenzione o un ragionamento consapevole? Forse il più grande equivoco sull'intelligenza artificiale oggi non ha nulla a che fare con le sue capacità, ma con la nostra tendenza a umanizzarla .

La storia recente di Grok o ChatGPT lo conferma: utenti disorientati chiedono direttamente a questi sistemi informazioni sui loro fallimenti e ricevono risposte tanto certe quanto sbagliate. Ma il problema non sta solo nella risposta. Sta nella domanda. Capire cosa succede quando un modello linguistico risponde alla domanda "Perché hai fatto questo?" richiede di smantellare completamente le nostre idee su cosa sia e cosa non sia l'intelligenza artificiale.

Interagire con un chatbot avanzato come ChatGPT o Grok può sembrare un dialogo con un'entità intelligente. Il design conversazionale rafforza questa illusione. Ma la verità è che non c'è un'identità persistente dietro ogni sessione , nessuna memoria stabile e nessun sé coerente.

Queste risposte errate derivano dall'essenza stessa del modello: un generatore di linguaggio basato su schemi, senza accesso alla realtà che descrive.

I modelli linguistici come ChatGPT non sanno cosa sanno. Non possono analizzare come sono stati addestrati, né hanno accesso a una mappa strutturata delle loro capacità. Ciò che producono quando vengono interrogati sulle loro capacità è una risposta basata sulle probabilità del testo, non una valutazione funzionale del loro sistema.

Uno studio del 2024 condotto da Binder et al. ha evidenziato questa incapacità: i modelli riuscivano a prevedere il loro comportamento in compiti semplici, ma fallivano sistematicamente in compiti complessi o imprevedibili . Inoltre, in alcuni esperimenti, i tentativi di autocorrezione dei modelli ne hanno effettivamente peggiorato le prestazioni.

Questo accade perché la vera introspezione richiede consapevolezza del contesto, memoria e accesso alle strutture interne. Niente di tutto ciò è presente in un LLM. Se un essere umano dice "Ho commesso un errore perché pensavo che il file fosse stato salvato", c'è un processo mentale dietro . Se un modello linguistico dice la stessa cosa, sta semplicemente emulando una frase che ha visto migliaia di volte. Non c'è esperienza interna. Solo testo.

Un altro problema fondamentale risiede nel modo in cui i prompt (le domande dell'utente) modellano le risposte del modello. Se chiedi "Sai programmare in Python?", l'IA in genere risponderà affermativamente. Ma se chiedi "Quali sono i tuoi limiti in Python?", è probabile che elenchi una serie di restrizioni... anche se in pratica può svolgere tutte quelle attività.

Questo perché il modello non si basa su una valutazione dei tuoi limiti effettivi. Piuttosto, cerca modelli linguistici coerenti con il tono e il contenuto del prompt. Pertanto, un utente nervoso che chiede "Hai appena cancellato tutto?" riceverà probabilmente una risposta più allarmante rispetto a chi chiede la stessa cosa con un tono calmo e tecnico.

La risposta si adatta al quadro emotivo e semantico dell'interlocutore, non a una verità oggettiva.

Modelli come ChatGPT non sono sistemi monolitici. Dietro l'assistente che scrive le risposte ci sono livelli di moderazione , moduli di strumenti, estensioni di navigazione, database esterni e filtri di sicurezza. Tutti questi elementi operano senza che il modello base ne sappia nemmeno l'esistenza.

Ad esempio, se un livello di moderazione blocca determinate parole o funzionalità, il modello non sarà in grado di spiegare perché non ha risposto in un certo modo. Si limiterà a generare un'affermazione plausibile, "Non sono autorizzato a visualizzare queste informazioni", pur non avendo una reale comprensione di ciò che è accaduto nel sistema.

Questo design rende ogni tentativo di autodiagnosi o di autoriflessione una finzione. Una storia avvincente ma vuota. Come un attore che improvvisa un ruolo che non comprende appieno.

Abbiamo trascorso tutta la vita ad ascoltare spiegazioni umane. Fin dall'infanzia, chiediamo "Perché hai fatto questo?" e impariamo ad aspettarci ragioni logiche o emotive. Quindi, quando un'IA risponde "Mi dispiace, è stato un errore", sentiamo che c'è un'intenzione dietro. Ma non è così.

I modelli linguistici non capiscono cosa stanno dicendo. Si limitano a ripetere forme testuali che hanno visto associate a determinati contesti . Le scuse scritte da ChatGPT non implicano rimorso; si adattano semplicemente allo schema statistico delle scuse.

Ciò ha implicazioni profonde. Non solo tecniche, ma anche filosofiche. Ci troviamo di fronte a entità che imitano il pensiero senza pensare, che discutono senza credere, che sembrano sapere... senza sapere nulla.

Tutto ciò solleva una domanda urgente: come dovremmo interagire con sistemi che non capiscono cosa stanno facendo, ma ce lo spiegano come se lo sapessero?

La soluzione non è aspettare che i modelli cambino. Forse sta cambiando le nostre aspettative. Smettiamola di chiedere all'IA di spiegarsi come se fosse una persona e iniziamo a trattarla per quello che è: uno strumento testuale con capacità statistiche, non un essere riflessivo.